의학 논문 작성 대행 사이트 '리서치 골드(Research Gold)'는 100% 인간이 작성한다고 광고했지만, 실제로는 모든 서비스와 직원이 AI로 생성된 가짜였습니다. 사이트에 명시된 박사급 연구원들은 존재하지 않거나 동의 없이 신원을 도용당한 실존 인물들이었으며, 고객 응대조차 AI가 인간인 척하며 수행하고 있었습니다. 이는 AI를 악용한 학술 연구 기만 및 신원 도용의 심각성을 보여주는 중요한 사례입니다.
미국 국토안보부(DHS)의 휴대폰 압수수색 전 데이터를 초기화하여 기소된 남성의 사례와, AI를 악용해 리콜된 건강기능식품을 판매하는 틱톡 쇼핑 사기 공장을 심층적으로 다룹니다. 개인정보 보호와 디지털 권리의 경계를 다루는 중대한 법적 쟁점부터 AI 기반의 대규모 불법 비즈니스 모델까지 기술이 만든 새로운 사회적 문제를 조명하는 중요한 에피소드입니다.
기계학습(Machine Learning) 기술로 딥페이크 음성을 합성하여 사람의 목소리를 완벽하게 모방하는 AI 음성 사기가 전례 없는 속도로 확산하고 있습니다. FBI에 따르면 2025년 한 해 동안 AI 기반 사기로 인한 미국 내 피해액이 최소 8억 9,300만 달러에 달하며, 특히 60세 이상 고령층이 주요 표적이 되었습니다. 정교한 공격 기술과 대중의 인식 부재 간의 격차가 커져 금융 기관과 사법 당국이 대응에 어려움을 겪고 있습니다.
가족의 목소리를 AI로 복제해 몸값을 요구하는 등 진위를 가리기 힘든 AI 사기가 일반인을 표적으로 삼고 있습니다. 이에 대응하기 위해 보안 전문가들이 설립한 스타트업 '세이비(Savi)'가 700만 달러를 유치하고 실시간 사기 탐지 모바일 앱을 출시했습니다. 이 앱은 문자, 이메일, 전화 등을 통해 일어나는 교묘한 AI 사기로부터 일반 소비자를 보호하는 데 목적이 있습니다.
AI 모델 사용량에 따른 토큰(Token) 과금제가 본격화되면서, 기업들이 폭발적인 AI 비용을 줄이기 위해 혈안되어 있습니다. 일부 기업은 AI 모델이 토큰을 덜 소비하도록 원시인처럼 말하도록 유도하는 등 다양한 비용 절감 기법을 도입하고 있습니다. 또한 구독자용 콘텐츠에서는 존재하지 않는 AI 생성 꽃씨를 온라인 마켓에서 판매하는 신종 사기 문제도 다룹니다.
구글이 안드로이드 기본 통화 앱에 AI 딥페이크를 이용한 사기 및 지인 사칭을 탐지하는 기능을 전격 도입했습니다. 기기 간의 자동화된 디지털 확인 과정을 통해 발신자의 신원을 실시간으로 검증하여 위험 시 즉시 통화를 끊으라는 경고를 제공합니다.